HN
Hacker News • 32일 전
IMP 8
Opus 도입으로 LLM 비용을 줄인 방법
테라바이트급 CI 로그를 분석하는 에이전트 시스템에서, 저렴한 모델(Haiku)이 먼저 중복 이슈를 필터링하고 복잡한 문제만 비싼 모델(Opus)로 전달하는 '트리아제(Triage)' 패턴을 도입해 비용을 크게 절감한 사례입니다. 로그를 프롬프트에 억지로 넣지 않고 에이전트에게 SQL 인터페이스를 제공하여 필요한 데이터만 능동적으로 가져오게 하며, Opus는 가설을 수립하고 Haiku 하위 에이전트들에게 실제 분석 작업을 지시하는 효율적인 아키텍처를 구축했습니다.
LLM 비용 최적화 AI 에이전트 아키텍처 클로드(Claude)